Những toan tính trong gia tộc ngăn trở ông lên nối ngôi có thể đã góp phần vào cách tiếp cận quyền hành của Ioannes, đó là bổ nhiệm những quan chức xuất thân từ bên ngoài hoàng tộc vào giúp ông cai trị đế chế. Đây là một sự khởi đầu căn bản khác hẳn phương pháp của tiên đế Alexios là chỉ ưu tiên dùng các thành viên hoàng tộc và thân bằng quyến thuộc nhằm lấp đầy tất cả các chức vụ hành chính và quân sự cấp cao.

Ioannes Axouch là viên cố vấn thân cận nhất của Ioannes II và là người bạn thân thiết duy nhất của ông. Axouch vốn là dân gốc Thổ bị bắt trong cuộc vây hãm Nicaea rồi đượ dâng làm quà tặng cho phụ hoàng. Tiên đế Alexios nghĩ rằng ông sẽ là người bạn đồng hành tốt cho con trai mình, và do vậy đã đem ông nuôi dưỡng chung một nhà với thái tử Ioannes. Ngay khi Ioannes II vừa lên ngôi hoàng đế đã ngay lập tức phong Axouch làm Megas Domestikos (tiếng Hy Lạp: μέγας δομέστικος). Megas Domestikos nguyên là chức tổng tư lệnh quân đội Đông La Mã. Từng có ý kiến liên quan đến việc sở hữu ấn triện của Axouch vào đầu thời Manouel I có nghĩa rằng, ngoài trọng trách quân sự ra thì ông còn là người đứng đầu chính quyền dân sự của Đế quốc. Vốn là chức danh không chính thức vào thời điểm đó với tên gọi mesazon, tương đương với chức Tể tướng hay 'Tướng quốc.'[10] Việc bổ nhiệm như vậy được xem là bất thường, và nguyên tắc căn bản này khác xa so với chủ nghĩa gia đình trị từng là nét đặc trưng của triều đại Alexios I. Cả hoàng tộc ít nhiều gì cũng đều tỏ ý bất bình trước quyết định này, nay lại được gia tăng trước thực tế là họ phải cúi đầu hành lễ Ioannes Axouch bất cứ khi nào gặp mặt ông.[11]

Hoàng đế hoàn toàn tự tin trong việc bổ nhiệm của mình, nhiều người trong số đó đã được chọn dựa trên tài năng chứ không phải do mối liên hệ bà con với hoàng gia và các dòng họ quý tộc có liên quan. Sự miễn cưỡng của Ioannes cho phép gia tộc mình gây ảnh hưởng lên chính phủ của ông bằng bất kỳ giá nào vẫn không thay đổi trong suốt phần đời còn lại. Ioannes đã giao chức trọng quyền cao cho một số tùy tùng riêng của phụ hoàng, chẳng hạn như Eustathios Kamytzes, Michaelitzes Styppeiotes và George Dekanos. Đây là những người đã bị lu mờ về mặt chính trị suốt trong thời kỳ Eirene Doukaina 'buông rèm thính chính' trong những năm cuối của triều đại Alexios I.[12] Một số phải đợi lúc Ioannes II lên ngôi mới được trọng dụng, gồm có Gregory Taronites, Manouel Anemas và Theodore Vatatzes, cả hai sau này còn trở thành con rể của hoàng đế.[13]

Dù đã tách rời khỏi sự phụ thuộc chặt chẽ vào hoàng tộc và thân bằng quyến thuộc, triều đình và chính quyền của Ioannes vẫn có nhiều điểm tương đồng như của phụ hoàng, nhất là về âm hưởng và lòng mộ đạo đến mức cuồng tín. Quả thực, một bộ tuyển tập những lời khuyên chính trị còn sót lại được diễn đạt dưới dạng thơ ca có tựa đề Mousai đem dâng lên Alexios I. Mousai thẳng thừng nhắc đến Ioannes II và khích lệ ông, trong số những chuyện khác, nhằm gây dựng công lý trong suốt thời kỳ trị vì và một quốc khố dồi dào. Lời dạy bảo về vương quyền của Alexios do vậy vẫn tiếp tục có giá trị cho con mình, ngay cả sau cái chết của vị hoàng đế già nua.[14]

Việc tăng cường an ninh quân sự và sự ổn định kinh tế ở miền Tây Anatolia của Đông La Mã do các cuộc chinh chiến của Ioannes tạo ra cho phép ông bắt đầu thiết lập một hệ thống hành chính cấp tỉnh chính thức tại các khu vực này. Thema (tỉnh hay quân khu) xứ Thrakesion đã được tái lập, với thủ phủ chính đóng tại Philadelphia. Một thema mới nữa mang tên Mylasa và Melanoudion được kiến tạo ở miền Nam Thrakesion.[15]